L’IA et les recoins sombres d’Internet

D’où provenaient les détournements pornographiques utilisant l’image de la chanteuse Taylor Swift, qui ont inondé durant plusieurs jours le réseau social X et provoqué une vague d’indignation la semaine dernière ? Chercher à répondre à cette question, c’est se plonger dans certains des recoins sombres d’Internet, des communautés en ligne qui d’ordinaire se tiennent soigneusement à l’abri des regards et des principaux réseaux sociaux grand public.

En fin de semaine, la presse américaine désignait un premier coupable : un important groupe de discussion sur la messagerie Telegram, application réputée pour son absence quasi-totale de modération. Dans cet espace, les journalistes du site spécialisé 404 Media ont retrouvé la trace de certains détournements, avant leur apparition sur Twitter.

Mais d’après les constatations du Monde, une part importante des images diffusées ces derniers jours émanaient avant tout du forum 4chan, l’un des espaces les moins modérés d’Internet et connu pour ses débordements graves. Certains détournements diffusés récemment y avaient été publiés dès les mois de novembre et décembre.

Sous-forum de 4chan

Depuis plusieurs mois, le sous-forum « ACO » (« Adult cartoons ») de 4chan accueille en effet quotidiennement un long fil de discussion dans lequel les utilisateurs publient de fausses images pornographiques de célébrités, réalisées à l’aide d’outils de génération automatique. Historiquement dédiée aux dessins pornographiques, cette section du site accueille à présent aussi la production des utilisateurs de logiciels reposant sur l’intelligence artificielle (IA).

Certaines journées, plus d’une centaine de nouvelles créations photo réalistes sont publiées sur le forum. Taylor Swift est loin d’être la seule victime de ces détournements, mais la chanteuse la plus célèbre des Etats-Unis y est très régulièrement le sujet de créations pornographiques oscillant entre érotisme « soft » et images extrêmement « hard ».

Les auteurs y partagent également leurs outils préférés, ainsi que leurs trucs et astuces pour contourner les limitations des outils commerciaux qui interdisent les détournements pornographiques ou l’utilisation de l’image de personnes connues. Ils s’y échangent aussi parfois leurs « prompts », ces séries de mots-clefs utilisés comme instructions pour générer une image, afin de permettre à d’autres utilisateurs de les adapter à leur goût.

Lire l’analyse : Article réservé à nos abonnés Le nombre de « deepfakes » pornographiques explose du fait des progrès de l’intelligence artificielle

Des circuits de diffusion loin des réseaux sociaux

Les images pornographiques truquées, comme celles dont a été victime Taylor Swift, ont leurs propres circuits de viralité, habituellement en dehors des grands réseaux sociaux. Il n’est ainsi pas rare qu’une image publiée à l’origine sur 4chan, parce qu’elle est jugée particulièrement réussie, soit ensuite largement rediffusée dans des groupes Telegram – certains, repérés par Le Monde, comptent plus de 100 000 abonnés – et sur des sites pornographiques totalement ou en partie consacrés à ce type d’images, dont certains reprennent même la présentation d’Instagram.

Il vous reste 45% de cet article à lire. La suite est réservée aux abonnés.